過去兩年,大型語言模型(LLM)的競爭邏輯非常單純:誰更聰明、誰更強大,誰就贏。
但這個邏輯正在快速瓦解。
以 Anthropic 推出的 Claude 系列模型為例,從 Opus、Sonnet 到 Haiku,本質上並不是「誰取代誰」,而是形成一種分層能力結構:
Opus:高推理能力、高成本
Sonnet:中等能力、平衡成本
Haiku:快速、低成本
問題開始出現:如果任務中只有一小部分需要高推理能力,為什麼整個流程都要用最貴的模型?
筆者透過 AIMochi 筆記工具,整理多方公開資訊和最新報導內容,來看看 Advisor Strategy 出現的背景。
所謂 Advisor Strategy,本質是一種「顧問—執行者」架構:
🧠 顧問(Advisor):高階模型(如 Opus)
⚙️ 執行者(Executor):較低成本模型(如 Sonnet 或 Haiku)
運作邏輯如下:
任務由執行者先處理
當判斷任務複雜度提高時
才呼叫顧問模型提供策略或決策
再由執行者完成最終輸出
這意味著:AI不再是「單一大腦」,而是一個會動態調度資源的系統
這種設計,與傳統軟體架構中的「微服務(Microservices)」或「分層決策系統」極為相似。
要理解這個策略的價值,必須先看成本。
在 Claude 模型中,大致成本如下:
| 模型 | 輸入成本(每百萬tokens) | 輸出成本(每百萬tokens) |
|---|---|---|
| Opus | $5 | $25 |
| Sonnet | $3 | $15 |
| Haiku | $1 | $5 |
可以觀察到兩個關鍵現象:
1️⃣ 輸出成本遠高於輸入成本
幾乎所有模型皆如此,代表「生成內容」才是真正昂貴的部分。
2️⃣ 模型之間存在倍數差距
Opus 與 Haiku 在輸出成本上相差 5倍以上。
📉 成本優化的本質
如果一個任務:
只有 20% 需要高推理能力
80% 是標準處理流程
那麼使用 Advisor Strategy:
👉 只讓 Opus 處理那 20%
👉 其餘交給 Haiku / Sonnet
結果是:
成本顯著下降(約10%~50%不等)
效能反而提升
根據測試,在軟體工程(SWE)任務中:
Sonnet + Opus(Advisor):表現提升約 2.7%
在瀏覽測驗(Browsing tasks)中:
Haiku 單獨使用:約 19.7%
Haiku + Opus(Advisor):約 41.2%
幾乎翻倍成長!
這揭示了一個關鍵現象:模型的「使用方式」,比模型本身更重要。
這背後有三個核心原因:
1️⃣ 任務分解(Task Decomposition)
不是所有問題都需要高階推理
查詢 → 低難度
決策 → 高難度
格式化 → 低難度
Advisor Strategy 讓每個任務「對應正確能力」
2️⃣ 動態調度(Dynamic Routing)
系統可以決定:
何時升級模型
何時維持低成本
這本質上就是「AI routing」
3️⃣ 減少過度思考(Overthinking)
高階模型常會:
過度分析
生成過多內容
消耗更多 tokens
而低階模型反而更「直接有效」
在實作層面,Advisor Strategy 主要存在於:Messages API(API層)
而不是:Claude Code(終端產品)
兩者差異:
| 項目 | Messages API | Claude Code |
|---|---|---|
| 性質 | 開發工具 | 成品應用 |
| 控制權 | 高(可自定義) | 低 |
| 狀態 | 無狀態 | 有上下文 |
| 工具整合 | 自定義 | 內建 |
如果你是:
開發者
PM
創業者
真正的價值在 API,而不是 UI
因為:Advisor Strategy 本質是「系統設計」,不是單一功能。
1️⃣ 客服系統
Haiku:處理FAQ
Opus:處理投訴 / 複雜案例
👉 成本降低 + 回應品質提升
2️⃣ Coding Agent
Sonnet:寫程式
Opus:做架構設計 / Debug
👉 提高成功率
3️⃣ 搜尋與研究
Haiku:抓資料
Opus:做分析
👉 加速流程
Advisor Strategy 其實只是更大趨勢的一部分:Multi-Agent Systems
在這個架構中:
每個模型都是一個「角色」
有不同職責與能力
透過 orchestration 協作
與 OpenAI、Google 等公司推動的方向一致:AI 正從「單一模型」走向「系統化協作」
根據目前發展,可以預測三個方向:
1️⃣ 模型將被「隱藏」
使用者不再關心用哪個模型
而是系統自動決定
2️⃣ 成本優化成為核心競爭力
不只是誰更強
而是誰「更便宜地達到同樣效果」
3️⃣ AI Orchestration 成為新技術層
未來會出現:
AI Router
Agent Manager
Decision Engine
Advisor Strategy 所代表的,不只是一個功能,而是一種轉變:
從:單一模型競爭
走向:系統設計競爭
在這個新範式中:
最強模型不一定最有價值
最有效的「組合」才是
而對開發者與企業而言,真正的問題也已經改變:
不是「哪個模型最好?」,而是「如何讓模型在對的時間做對的事?」
以上僅供參考與資訊分享之用!若想快速了解更多資訊,透過 AIMochi 筆記工具,幫我們從海量資料中,梳理出關鍵資訊,讓我們精準掌握重要訊息!